FinHarness: An Inline Lifecycle Safety Harness for Finance LLM Agents
面向金融LLM代理的内联生命周期安全栅栏
🧭 金融代理安全 · 内联安全栅栏 ★ 深度解读
Peking University · Nanyang Technological University · Tsinghua University · University of Science and Technology of China · University of Illinois Chicago
通过查询监控、工具监控与级联法官在代理执行中注入安全证据，在保持业务批准率的同时降低攻击成功率并大幅减少高级模型调用。
📌 工作参考价值（4 点）
- 内联安全监控架构：在Agent执行循环中嵌入查询监控(Query Monitor)与工具监控(Tool Monitor)，用确定性合规先验对每一步打分，防范中间步骤的提示注入攻击，比边界过滤更可靠。
- 风险窗口级联路由：通过累加最近5步风险分数 (W=5, θ=1.0) 决定是否调用高级法官，普通步骤仅用轻量法官 (gpt-4o-mini)，高级调用减少4.7倍，平衡安全与成本。电商对话中高风险操作（如大额下单）可借鉴此路由策略。
- 证据注入促代理自主：将触发风险的规则信号（如强制词、数量异常、序列违规）作为结构化证据注入Agent输入，让Agent自主选择拒绝、重规划或升级，而非硬阻断，保持流程灵活且不牺牲业务审批率。
- 双信号有限记忆回顾：通过风险显著性和共谋（语义相似+实体重叠+信息提供者）召回最多2个历史步骤，法官上下文长度恒定O(1)，避免长轨迹下成本爆炸，适用于多轮对话状态追踪。